Realizing when a model is right for a wrong reason is not trivial and requires a significant effort by model developers. In some cases, an input salience method, which highlights the most important parts of the input, may reveal problematic reasoning. But scrutinizing highlights over many data instances is tedious and often infeasible. Furthermore, analyzing examples in isolation does not reveal general patterns in the data or in the model's behavior. In this paper we aim to address these issues and go from understanding single examples to understanding entire datasets and models. The methodology we propose is based on aggregated salience maps. Using this methodology we address multiple distinct but common model developer needs by showing how problematic data and model behavior can be identified -- a necessary first step for improving the model.
translated by 谷歌翻译
Previous work has shown the potential of deep learning to predict renal obstruction using kidney ultrasound images. However, these image-based classifiers have been trained with the goal of single-visit inference in mind. We compare methods from video action recognition (i.e. convolutional pooling, LSTM, TSM) to adapt single-visit convolutional models to handle multiple visit inference. We demonstrate that incorporating images from a patient's past hospital visits provides only a small benefit for the prediction of obstructive hydronephrosis. Therefore, inclusion of prior ultrasounds is beneficial, but prediction based on the latest ultrasound is sufficient for patient risk stratification.
translated by 谷歌翻译
Transfer operators offer linear representations and global, physically meaningful features of nonlinear dynamical systems. Discovering transfer operators, such as the Koopman operator, require careful crafted dictionaries of observables, acting on states of the dynamical system. This is ad hoc and requires the full dataset for evaluation. In this paper, we offer an optimization scheme to allow joint learning of the observables and Koopman operator with online data. Our results show we are able to reconstruct the evolution and represent the global features of complex dynamical systems.
translated by 谷歌翻译
Large language models (LLMs) have been shown to be able to perform new tasks based on a few demonstrations or natural language instructions. While these capabilities have led to widespread adoption, most LLMs are developed by resource-rich organizations and are frequently kept from the public. As a step towards democratizing this powerful technology, we present BLOOM, a 176B-parameter open-access language model designed and built thanks to a collaboration of hundreds of researchers. BLOOM is a decoder-only Transformer language model that was trained on the ROOTS corpus, a dataset comprising hundreds of sources in 46 natural and 13 programming languages (59 in total). We find that BLOOM achieves competitive performance on a wide variety of benchmarks, with stronger results after undergoing multitask prompted finetuning. To facilitate future research and applications using LLMs, we publicly release our models and code under the Responsible AI License.
translated by 谷歌翻译
创伤后应激障碍（PTSD）是一种长期衰弱的精神状况，是针对灾难性生活事件（例如军事战斗，性侵犯和自然灾害）而发展的。 PTSD的特征是过去的创伤事件，侵入性思想，噩梦，过度维护和睡眠障碍的闪回，所有这些都会影响一个人的生活，并导致相当大的社会，职业和人际关系障碍。 PTSD的诊断是由医学专业人员使用精神障碍诊断和统计手册（DSM）中定义的PTSD症状的自我评估问卷进行的。在本文中，这是我们第一次收集，注释并为公共发行准备了一个新的视频数据库，用于自动PTSD诊断，在野生数据集中称为PTSD。该数据库在采集条件下表现出“自然”和巨大的差异，面部表达，照明，聚焦，分辨率，年龄，性别，种族，遮挡和背景。除了描述数据集集合的详细信息外，我们还提供了评估野生数据集中PTSD的基于计算机视觉和机器学习方法的基准。此外，我们建议并评估基于深度学习的PTSD检测方法。提出的方法显示出非常有希望的结果。有兴趣的研究人员可以从：http：//www.lissi.fr/ptsd-dataset/下载PTSD-in-wild数据集的副本
translated by 谷歌翻译
行星漫游者任务必须利用基于机器学习的感知来继续发生地球外探索，几乎没有人类的存在。火星地形细分对于漫游车导航和避免危害至关重要，以执行进一步的探索性任务，例如土壤样品收集和寻找有机化合物。当前的火星地形细分模型需要大量标记的数据才能实现可接受的性能，还需要重新培训以在不同域中的部署，即不同的漫游者任务或不同的任务，即地质识别和导航。这项研究提出了一种半监督的学习方法，该方法利用了骨干的无监督对比度预处理，用于对火星表面的多效率语义分割。该模型将通过使用混合域训练套件来确保具有多样性的混合域训练套件，从而扩展到当前的火星分割能力，以便在不同的火星漫游者任务中部署以进行地形导航。使用平均像素精度的评估结果表明，与单个领域训练和监督培训相比，半监督的混合域方法通过达到火星科学实验室的好奇心漫游者的精度为97％，MARS 2020 Perseverance Perseverance Rover提高了精度。 。此外，使用召回度量与标准的跨透镜损失相比，使用召回度量的损失功能提供不同的权重方法将对少数族裔或稀有类别的模型提高了30％以上。这些结果可以以数据效率的方式为Rover任务提供未来的多任务和多任务语义细分。
translated by 谷歌翻译
以前的无监督句子嵌入研究集中在数据增强方法上，例如辍学和基于规则的句子转换方法。但是，这些方法限制了控制句子增强观点的细粒语义。这导致监督信号不足以捕获类似句子的语义相似性。在这项工作中，我们发现使用邻居句子可以捕获相似句子之间更准确的语义相似性。基于这一发现，我们提出了RankEncoder，该发现使用了输入句子和语料库中的句子之间的关系来训练无监督的句子编码器。我们从三个角度评估rankencoder：1）语义文本相似性性能，2）相似句子对的功效，以及3）rankencoder的普遍性。实验结果表明，与先前的最新性能相比，Rankencoder达到80.07 \％Spearman的相关性，绝对提高了1.1％。在类似的句子对上，改进更加显着，改善了1.73％。另外，我们证明了RankEncoder普遍适用于现有的无监督句子编码器。
translated by 谷歌翻译
子图是图中丰富的子结构，并且可以在现实世界任务中部分观察到它们的节点和边缘。在部分观察结果下，现有的节点或子图级消息传播会产生次优表示。在本文中，我们制定了一项新的学习表征的新任务。为了解决此问题，我们建议将部分子图信息（PSI）框架（PSI）框架概括为我们的框架中现有的Infomax模型，包括DGI，Intograph，MVGRL和GraphCl。这些模型最大程度地提高了部分子图的摘要与从节点到完整子图的各种子结构之间的共同信息。此外，我们建议使用$ K $ -HOP PSI的新型两阶段模型，它重建了完整子图的表示，并提高了其从不同局部全球结构中的表现力。在为此问题设计的培训和评估协议下，我们在三个现实世界数据集上进行实验，并证明PSI模型的表现优于基准。
translated by 谷歌翻译
来自时间序列数据的因果推断的主要挑战是计算可行性和准确性之间的权衡。在具有缓慢均值逆转的自回旋模型中，由滞后协方差的过程基序激励，我们建议通过成对边缘测量（PEM）推断因果关系网络，即可以轻松地从滞后相关矩阵中计算出来。通过过程基序对协方差和滞后方差的贡献，我们制定了两个pem，这些PEM适合混杂因素和反向因果关系。为了证明PEM的性能，我们考虑了线性随机过程的模拟网络干扰，并表明我们的PEM可以准确有效地推断网络。具体而言，对于略有自相关的时间序列数据，我们的方法获得的准确性高于或类似于Granger因果关系，转移熵和收敛的交叉映射 - 但使用这些方法中的任何一种都比计算时间短得多。我们的快速准确的PEM是用于网络推断的易于实现的方法，具有明确的理论基础。它们为当前范式提供了有希望的替代方案，用于从时间序列数据中推断线性模型，包括Granger因果关系，矢量自动进展和稀疏逆协方差估计。
translated by 谷歌翻译
数据集的质量在成功培训和部署深度学习模型中起着至关重要的作用。特别是在系统性能可能影响患者健康状况的医疗领域，干净的数据集是可靠预测的安全要求。因此，在构建自主临床决策系统时，离群值检测是一个必不可少的过程。在这项工作中，我们评估了自组织图对外离检测的适用性，专门针对包含白细胞定量相图像的医学数据集。我们根据量化误差和距离图检测和评估异常值。我们的发现证实了自组织地图对于手头数据集的无监督分布检测的适用性。根据专家领域知识，自组织地图与手动指定的过滤器相同。此外，它们在探索和清洁医疗数据集的工具方面显示了希望。作为未来研究的方向，我们建议将自组织地图和基于深度学习的特征提取的结合。
translated by 谷歌翻译